Capacité \(C\) d'un canal
Quantité correspondant au maximum de l'Information mutuelle entre son entrée et sa sortie. $$C=\max_{p_A(a)}I(A;B)=\max_{p_A(a)}\Big(H(B)-H(B|A)\Big)$$
permet de quantifier le lien maximal possible entre l'entrée et la sortie du canal (le canal n'est pas capable de créer plus de lien entre \(A\) et \(B\))
\(I(A;B)\) est une fonction concave de \(p_A(a)\) à \(p_{B|A}(b|a)\) fixé
Capacité d'un canal multi-usages :
on considère un Canal sans mémoire caractérisé par \(\mathcal A\), \(p_{B|A}(b|a)\) et \({\mathcal B}\)
ce canal est de capacité \(C\)
$$\Huge\iff$$
la capacité du canal sans mémoire caractérisée par \(\mathcal A^n\), \(p_{\underline B|\underline A}(\underline b|\underline a)\) et \({\mathcal B}^n\) correspondant à \(n\) usages successifs du canal est \(nC\)